NorthCUA：通过大规模经验飞轮加速计算机使用代理
🧭 Agent 经验飞轮与强化学习
Shanghai Qiji Zhifeng Co., Ltd.
用经验飞轮、分级学习与桌面-网页联合强化学习，训练出开源SOTA的计算机使用代理模型族
📌 工作参考价值（4 点）
- 借鉴经验飞轮机制：在电商/搜索推荐 agent 中，将用户交互轨迹作为经验，通过结果校验（转化、点击、任务完成）筛选高质量轨迹，持续扩充训练数据，形成数据闭环。
- 对未成功任务采用递归自改进：保存已验证的里程碑，让后续尝试在已有进展上继续。适合长程多轮推荐/导购场景，避免每次从零开始，提升任务完成率。
- 分级学习策略：先 mid-training 注入 grounding 数据（如商品/页面结构化信息）建立基础能力，再 long-horizon SFT 学习完整任务轨迹，最后用在线 RL 在真实环境中闭环优化。可复用为：领域继续预训练 → 人工标注 SFT → 在线策略迭代。
- Ultrafast 的思路：直接动作选择与开放生成结合，在低延迟场景（实时推荐、搜索响应）可用混合解码策略，牺牲少量质量换取显著响应速度。
SoftwareGym：用多样化合成软件环境规模化训练计算机使用智能体
🧭 计算机使用 Agent 环境合成与训练
Shanghai Jiaotong University · Zhejiang University
提出 SoftwareGym 自动化合成 GUI 软件环境及基准，训练 CUA 后在 OSWorld 上 Pass@3 提升 15.58 个百分点
📌 工作参考价值（4 点）
- 对需要构建 Agent 操作业务系统（如电商后台、广告投放平台）的团队，可借鉴 SoftwareGym 的环境合成管线：自动生成多样化 GUI + 迭代修复功能，低成本构造大规模仿真环境，避免每个内部系统手工集成。
- 用合成环境收集轨迹做 SFT/RL 训练可显著提升 Agent 在未见过的真实系统上的泛化能力（OSWorld Pass@3 +15.58），适合跨平台/多工具 Agent 的冷启动。
- SoftwareGym-Bench 的 12 类 120 任务设计思路可迁移到电商工作流评测：覆盖不同操作类型、验证功能正确性而非仅界面匹配；GUI 任务通过率可作为应用可用性筛选指标。
- 注意：合成应用与真实业务系统仍有差距，建议混合少量真实环境数据做适配；该方法更适合作为预训练/基础能力阶段，而非替代真实场景微调。
CUA-Universe：面向混合 GUI+CLI 智能体的可扩展动态环境
🧭 混合 GUI+CLI 智能体训练环境
Shanghai Jiao Tong University · Zhejiang University
通过环境到数据管线将真实桌面软件转为混合 GUI+CLI 环境，训练 9B 智能体显著提升成功率与效率
📌 工作参考价值（4 点）
- 在电商后台自动化（商品上下架、批量改价、库存调整、报表生成）中，可借鉴混合 GUI+CLI 思路：让 Agent 同时具备页面视觉检查能力与命令行/脚本批量操作能力，避免纯 GUI 点击的低效和纯 CLI 脚本的脆弱。
- 环境到数据管线值得迁移：将内部业务系统封装为可复现 VM 并暴露 CLI 接口，基于可重用操作和种子文件自动合成不同难度的任务，持续产出训练轨迹，形成数据飞轮。
- Path-Steer 的引导式 rollout 与轨迹收割可作为后训练数据工程手段：在业务 Agent 中采集人工修正或规则约束下的高效动作序列，蒸馏到模型，使模型从低效 GUI 交互转向高效 GUI+CLI 编排。
- 评估不只盯成功率，同时关注步骤数和 token 消耗。业务上除任务完成率外，应把操作步数、API 调用成本纳入核心指标，优化 Agent 的长期效率与成本。
Qwen-CUA：纯视觉原生计算机操控，大规模迭代训练攻坚长程任务
🧭 原生计算机使用Agent · 大规模RL+迭代训练 ★ 深度解读
Qwen Team · Xlang Lab
仅凭截图与键鼠的原生计算机使用Agent Qwen-CUA，在八大基准上全面超越Qwen3.7并媲美GPT-5.5与Claude Opus 4.8
📌 工作参考价值（4 点）
- 可验证交互式训练范式可迁移至电商/推荐Agent：构建4万可验证任务 + 云端近10万vCPU并发环境完成大规模RL训练，该思路可直接用于训练电商商品操作用户界面Agent、客服流程自动化Agent。
- 长上下文视觉管理trick值得直接复用：保持20张活跃截图 + 每10步折叠旧截图，既保留近期视觉证据又维持前缀稳定以改进KV缓存重用，可迁移到需要长步骤的购物引导、商品浏览、多页面操作场景。
- 迭代式数据刷新与RL任务校准：每轮用当前模型分析失败案例，针对弱领域补充SFT数据、重校准RL任务（仅保留有提升空间的样本），可应用于推荐策略Agent的渐进式优化，避免过度重复无效训练。
- 混合动作空间（GUI操作+Bash命令）：实验证明混合操作能大幅缩短交互轮次，对电商自动化（如批量商品上下架、价格调整）可直接借鉴，但需注意当前模型的路由策略尚未完美，可配合显式路由监督提升实用性。
OSReward：建立跨平台计算机使用奖励模型的标准化评估基准
🧭 计算机使用Agent奖励模型评估
The University of Hong Kong · Nanjing University · National University of Singapore · University of Science and Technology of China · Xi'an Jiaotong University
揭示VLM评判器普遍存在宽松偏差，并推出低成本开源奖励模型OS-Shepherd实现可靠自动化评估
📌 工作参考价值（3 点）
- 警惕LLM-as-Judge中的宽松偏差：在电商搜索、推荐系统的离线评估或RLHF reward模型中，若直接使用商业VLM作为评判器，可能系统性地将失败案例误判为成功，需通过构建类似OSReward-Hard的对抗样本集进行可靠性校准。
- 用reasoning标注蒸馏小型评估器：借鉴OS-Shepherd的思路，收集专家推理标注的评估数据集，训练7-9B的小模型替代GPT-4o等大模型作为评估器，实现30-60倍成本下降，同时保持高一致性，适合大规模线上监控或离线评估。
- 多维度细粒度评分设计：可迁移OSReward-Multi的评分框架，在推荐业务中将评估分解为效率、对齐、多样性等子维度，便于定位Agent或推荐策略的具体短板。
教智能体停止而不仅是点击：CUA-RL的可靠性度量
🧭 Agent强化学习的方差分析与可靠报告 ★ 深度解读
Cabal AI · Para AI
发现CUA-RL结果被上游方差（数据抽取为主）误导，提出k种子报告协议并揭示修复难度由动作约束决定
📌 工作参考价值（4 点）
- 强化学习训练与评估协议：在推荐/搜索/对话Agent的RL训练中，单次运行的结果不可靠。应采用≥5个独立数据抽取×多训练种子的交叉评估，报告平均数和标准差（或IQM及分层 Bootstrap CI），避免因数据批次差异导致错误结论。
- 统一验证器提升训练效率：将任务完成验证器复用于“提示、教师、奖励、部署门控”四通道，类似在推荐系统中构建自诊断模块，可同时用于在-上下文纠正、知识蒸馏信号、稀疏奖励塑形和在线安全检查。
- 引入行为克隆安装正向动作：当策略从未采样到正确动作（如停止、罕见推荐）时，纯策略梯度无法强化它。利用验证器的蒸馏项（gated BC）注入该动作，可解决稀疏/负奖励场景下关键动作难学习的问题，类似电商推荐中引入用户明确停止信号。
- 数据抽取比种子更关键：方差分解显示训练数据批次差异是效果波动的主要来源（困难任务上占48%方差），训练种子影响小（≤10%）。在推荐系统AB测试或离线评估时，应优先控制训练数据的划分方式，而非仅关注模型初始化。
从弱点学习：小型计算机代理的自动领域特化框架
🧭 Agent 领域特化与自动化数据生成 ★ 深度解读
KAIST · Samsung Electronics · DeepAuto.ai
自动识别学生模型弱项生成针对性训练数据并纠正错误，大幅提升小型CUA在特定软件上的任务成功率。
📌 工作参考价值（4 点）
- 自动化弱项发现：用强模型与学生执行对比，生成弱项报告，可迁移到电商客服Agent的定向问题数据收集，降低人工标注成本。
- 弱项驱动的数据合成：生成任务时附加弱项描述与代表性截图，使数据直接瞄准模型能力缺口；推荐系统可模仿此机制，针对用户长尾偏好生成训练样本。
- 错误类型感知的偏好优化：区分规划错误（函数类型错）与执行错误（参数错），通过掩码DPO只更新错误相关动作token，避免过度纠正，提高训练稳定性与效率，适用于Agent微调。
- LoRA多领域模块化部署：共享基座 + 领域特定LoRA适配器，轻量切换，电商多场景Agent（搜索、推荐、客服）可复用此架构，快速扩展新领域。